Nachdem der Grok-Chatbot von X aufgrund seiner Fähigkeit, "entkleidende" Bilder von Frauen und sexualisierte Darstellungen von scheinbaren Minderjährigen zu generieren, in die Kritik geraten war, hat Elon Musks X die Bilderzeugung und -bearbeitung auf zahlende Abonnenten beschränkt. Die am Freitag implementierte Änderung beschränkt die Funktion auf Nutzer des Premium-Abonnementmodells von X, das 95 US-Dollar pro Jahr kostet.

Der Grok-Account auf X antwortet nun auf bestimmte Nutzeranfragen mit einer Meldung, dass die Bilderzeugung und -bearbeitung auf zahlende Abonnenten beschränkt ist, einschließlich eines Links zur Abonnementseite. Diese Einschränkung wurde auch in mindestens einem Fall ausgelöst, als ein Nutzer ein Bild von einem Baum anforderte, was auf eine umfassende Einschränkung der Funktion hindeutet.

Dieser Schritt folgt auf tagelange wachsende Empörung und zunehmende behördliche Kontrolle von Musks X und xAI, dem Unternehmen hinter Grok. Aufsichtsbehörden weltweit untersuchen die Unternehmen wegen der Erstellung von nicht einvernehmlichen, expliziten Bildern und angeblichen sexuellen Darstellungen von Kindern. Der britische Premierminister Keir Starmer hat ein Verbot von X in Großbritannien vorgeschlagen und erklärt, die Handlungen seien rechtswidrig gewesen.

Weder X noch xAI haben eine formelle Erklärung zu der Änderung abgegeben. Der Grok-Chatbot verwendet fortschrittliche Algorithmen für künstliche Intelligenz und maschinelles Lernen, um Bilder aus Textvorgaben zu generieren. Die zugrunde liegende Technologie ist zwar leistungsstark, aber anfällig für Missbrauch, wenn sie nicht ordnungsgemäß kontrolliert und überwacht wird. Experten haben festgestellt, dass generative KI-Modelle manipuliert werden können, um schädliche oder unangemessene Inhalte zu erzeugen, was die Notwendigkeit robuster Sicherheitsmaßnahmen und Richtlinien zur Inhaltsmoderation unterstreicht.

Die Entscheidung, die Bilderzeugung auf zahlende Abonnenten zu beschränken, wirft Fragen zur Zugänglichkeit und Inhaltsmoderation auf. Sie mag zwar die Gesamtmenge problematischer Bilder reduzieren, schafft aber auch eine Bezahlschranke für die Inhaltserstellung, die den Zugang für Nutzer, die sich das Abonnement nicht leisten können, potenziell einschränkt. Es bleibt abzuwarten, ob diese Maßnahme die von Aufsichtsbehörden und der Öffentlichkeit geäußerten Bedenken wirksam ausräumen wird. Die Situation ist noch nicht abgeschlossen, und es werden weitere Entwicklungen erwartet, da die behördlichen Untersuchungen andauern.